SSD: Spatially Speculative Decoding Accelerates Autoregressive Image Generation
SSD:空间推测解码加速自回归图像生成
🧭 自回归视觉生成中的并行推测解码
Rutgers University
利用2D空间局部性并行预测相邻token,将自回归图像生成加速13.3倍且质量无损
📌 工作参考价值(5 点)
- 对于电商/推荐/Agent从业者,该方法可直接迁移到任何自回归生成任务(如生成式推荐中的Semantic ID序列、商品描述、多模态内容生成):
- 利用 item 间共现或相似性图谱构建空间/结构化的并行预测分支,将逐 token 生成改为多 token 并发预测,减少解码步数,提升推荐结果生成速度。
- 工程上可实现类似树形推测解码的验证机制,用大模型一次产出多个候选 token,再由小模型并行验证,保持输出分布一致。
- 适合对延迟敏感的在线推荐场景,尤其在高分辨率、多模态内容生成(如商品图生成、广告素材合成)中应用,可大幅降低 RTF。
- 需要预先定义 token 之间的依赖关系(如商品 ID 序列的常见转移模式),可结合 Graph Embedding 或 co-occurrence 矩阵来设计并行预测目标。